JHiMA-WebRL: A Joint Hierarchical Multi-Agent Reinforcement Learning Framework for Long-Horizon Web Tasks
JHiMA-WebRL：长程网页任务的联合分层多智能体强化学习框架
🧭 多智能体分层RL训练网页Agent ★ 深度解读
Center for Advanced AI, Accenture
教师生成子任务监督，分层GRPO联合训练7B规划器与7B执行器，WebArena-Lite-v2达37.2%，超32B RL基线13.2个百分点
📌 工作参考价值（4 点）
- 用强模型从已有轨迹自动蒸馏 subtask 监督，人工零标注构建规划训练集：电商/搜索 Agent 可以拿历史会话或操作日志让 GPT-5 级模型生成高阶子任务，训练轻量 decomposer，降低对闭源大模型推理依赖。
- 角色分离 + 各自优势的 GRPO 扩展值得复用：actor 固定同一 plan 比较 rollout，decomposer 按 plan 平均 reward 比较候选 plan，避免规划与执行 credit assignment 混在一起；工程上只用 terminal success，不需要 dense process reward。
- 小模型分工成本效益明显：7B decomposer + 7B actor 超过 32B 单体 RL agent，适合电商/推荐场景里 QPS 敏感或需要私有化部署的 Agent 系统。
- 当前 decomposer 是一次性 open-loop planning，不能根据执行偏差 replan；业务里可加异步重规划或 subgoal 完成检测，作为后续优化点。